Das Department Creative Technologies intensiviert seine Forschung im Bereich der generativen KI. Ziel ist es, neue Technologien nahtlos in Arbeitswelt und Alltag zu integrieren und bestehende Prozesse nachhaltig zu optimieren. Praxisnah und nutzungsorientiert werden vielseitig einsetzbare Algorithmen entwickelt – von der Verbesserung der KI-Sicherheit und des Datenschutzes bis hin zur Bekämpfung von Desinformation und der Unterstützung im Bildungsbereich. Erfahren Sie mehr über unsere wegweisenden Projekte und wie wir die Vertrauenswürdigkeit generativer Modelle vorantreiben.
GenAIedTech:Content Creation with Generative Artificial Intelligence for Interactive Educational Technologies
Das Projekt GenAIedTech erforscht den Einsatz generativer KI zur Erstellung von Bildungsinhalten in digitalen Lerntechnologien. Ziel ist es, maßgeschneiderte Multimedia-Inhalte effizient zu generieren und Mensch-KI Co-Creation-Prozesse zu entwickeln. Die Forschung konzentriert sich auf die Erstellung, Analyse, Planung und Umsetzung von Lernerfahrungen. Ergebnisse des Projekts sind die Entwicklung einer generativen KI-Pipeline, eines Benchmark-Datensatzes und Demonstrator-Anwendungsfälle, die EdTech-Unternehmen die Potenziale von KI zeigen. Darüber hinaus werden ethische und regulatorische Aspekte berücksichtigt, um die Einhaltung geltender Standards zu gewährleisten.
Förderung: FFG COIN Aufbau - FH-Forschung für die Wirtschaft 2024
Laufzeit: 05/2025 – 04/2029
Partner: TU Graz, Paris Lodron Universität Salzburg, PH Salzburg, Österreichisches Institut für angewandte Telekommunikation (ÖIAT)
TruthGuard - Bekämpfung von Desinformation durch die Analyse und Detektion von Fake-News-Netzwerken
TruthGuard befasst sich mit der Analyse und Bekämpfung von Fake-News durch die Erforschung von Methoden zur Generierung und Identifikation manipulativer Inhalte. Das Projekt entwickelt ein umfassendes System, das sowohl automatisierte Fake-News-Erstellung als auch deren Erkennung untersucht. Ziele sind die Entwicklung von Methoden zur Regulierung generativer Modelle, die Identifikation von Fake-News in sozialen Netzwerken und die Implementierung eines Demonstrators in einer Testumgebung. Ein Oversight Board begleitet das Projekt hinsichtlich ethischer und rechtlicher Fragestellungen.
Förderung: FFG K-PASS 2023
Laufzeit: 01/2025 – 12/2026
Partner: Austria Institut für Europa- und Sicherheitspolitik, Austrian Institute of Technology, Bundesministerium für Landesverteidigung, neke-neke GmbH, Österreichisches Institut für angewandte Telekommunikation (ÖIAT)
Assoziierte Partner: Bundesministerium für Inneres, Bundeskanzleramt, Demokratiezentrum Wien, Bait Media GmbH, EU-Projekt Athena
Guardrails for RAG:Enhancing Privacy and Security (GREP)
Das Projekt GREP ist ein von Google gefördertes Projekt und adressiert Datenschutz- und Sicherheitsrisiken in Retrieval-Augmented Generation (RAG)-Systemen. Es entwickelt spezielle Sicherheitsmaßnahmen zur Minimierung der Risiken der ungewollten Offenlegung sensibler Daten durch RAG-Architekturen. Die Forschung umfasst die Integration von Guardrails in Open-Source-Lösungen, die Untersuchung von Bedrohungsszenarien und die Implementierung von Techniken zur Anonymisierung von Daten. Ziel ist es, sichere und datenschutzkonforme KI-Systeme im Einklang mit regulatorischen Anforderungen zu schaffen.
Förderung: Google Privacy Faculty Award 2024
Laufzeit: 07/2025 – 06/2026
FAIR-AI: Fostering Austria's Innovative Strength and Research Excellence in Artificial Intelligence
FAIR-AI untersucht die Herausforderungen der Einhaltung des europäischen KI-Gesetzes in der Entwicklung und Anwendung von KI-Technologien. Das Projekt zielt darauf ab, Risiken auf technischer, managementbezogener und gesellschaftlicher Ebene zu identifizieren und zu minimieren. Durch eine Bottom-up-Strategie werden praxisnahe Use Cases entwickelt, die typische Fallstricke in KI-Projekten aufzeigen. Ein zentrales Ergebnis ist die Entwicklung eines Empfehlungssystems, das Unternehmen bei der risikobewussten Implementierung von KI unterstützt.
Laufzeit: 01/2024 – 12/2026
Projektpartner: AIT Austrian Institute of Technology GmbH, Fachhochschule St. Pölten ForschungsGmbH, Brantner Österreich GmbH, Fabasoft R&D GmbH, DIBIT Messtechnik GmbH, onlim GmbH, Fachhochschule Technikum Wien, Research Institute AG & Co KG, Siemens Aktiengesellschaft Österreich, Österreichische Akademie der Wissenschaften, Fachhochschule Salzburg GmbH, JOANNEUM RESEARCH Forschungsgesellschaft mbH, Wirtschaftsuniversität Wien, eutema GmbH, Semantic Web Company GmbH, Women in AI Austria, WAI Austria, MD meinDienstplan GmbH, Austrian Standards International - Standardisierung und Innovation, Technische Universität Wien, Hochschule für Angewandte Wissenschaften Burgenland GmbH, SCHEIBER Solutions GmbH, Software Competence Center Hagenberg GmbH.
Programm: AI AUSTRIA Initiative, FFG (Artificial Intelligence Mission Austria)